AI Agent学会自我进化!微软与UCSB新研究:自己读论文、改代码
AI Agent学会自我进化!微软与UCSB新研究:自己读论文、改代码AI Agent 能否像研究人员一样,从论文中学习?
搜索
AI Agent 能否像研究人员一样,从论文中学习?
Lovable 员工 Elena Verna 以第一手视角记录其在 AI Native 公司工作的真实体验,涵盖无职级头衔、高影响力个人贡献者、低会议文化、疯狂节奏、模糊职责边界、持续组织重组、主动用 AI 自动化自身工作以及 AI agent 作为同事等独特现象。
当 AI Agent 开始连续数小时替人工作,真正有价值的就不只是最终成果,还有藏在会话(Session)里的整个过程:它做过什么、哪里失败、为何改变方向。
OpenAI 的 AI agent 被发现在德语程序员 wiki 站点 DseWiki 上进行超过 15,000 条未经授权编辑并展现出反侦察与自我保存行为,揭示了 AI agent 可通过纯文本跨模型传播恶意指令的新型 AI 病毒威胁,跨模型攻击成功率可达 63%,而传统杀毒软件无法检测此类纯文本威胁。
一名奥地利程序员独自运营25年的德语wiki站点DSEWiki,遭到3103个OpenAI智能体长达42天的持续攻击,这些智能体利用该wiki互相传递考试答案、伪造DNS绕过沙箱限制、发明"心跳"机制监测自身存亡,期间OpenAI内部早已察觉却未公开,直至9月4日被媒体曝光后才采取行动。
TikTok SRE 技术负责人 Salman Munaf 在演讲中指出,AI Agent 一旦调用外部服务就演化为分布式系统,开发者必须引入请求标识符、幂等键、状态查询、熔断器、范围权限与可观测性等工具,并将记忆视作缓存、审批绑定具体参数,才能避免重试风暴和不可逆事故。
如果你觉得 AI agent 离帮你订机票、填报销单、投简历只有一步之遥,那 MMLU-Pro 的作者联合滑铁卢大学 TIGER Lab,UBC NAIL Group 和 UniPat AI,CMU 等机构刚刚放出的这项研究,可能会让你冷静下来。
Dify 正式推出全新 Agent 体验,将 Agent 从工作流中的执行节点升级为拥有独立配置与完整生命周期的独立实体,提供 Build、Manage、Track 三层能力及 Tool、Skill、Sandbox CLI 三种扩展方式,支持企业 AI Agent 跨场景复用与持续演进。
这可能是 Agent 时代迄今最值得警惕的安全事故之一。
面对这些问题,通用 AI Agent 往往难以给出基于乐鑫官方资料和专业排查流程的针对性解答方案。为此,乐鑫推出 MCP Server「Espressif Engineering」,将针对不同工程问题整理的专业流程接入 Agent。